星环科技助质检跑上"信息高速公路"
一
项目背景
为落实国家市场监督管理总局在全国质量监督检验检疫工作会议上关于"大力实施‘互联网+质检’行动计划",让质检技术和数据资源跑上"信息高速公路",共享质检大数据资源,搭建质检大数据平台,加强质检大数据开发利用的三步走战略。
依据指导意见和顶层设计方案,按照"统一规划、分步实施"的原则,逐步完成质检信息资源整合与共享服务平台建设,实现质检系统信息资源整合、共享、交换、分析、挖掘,有效支撑领导综合决策,满足业务协同、社会公众及质检业务改革与发展的基本要求,第一批试点单位率先开展了相关大数据平台项目建设。
二
问题与需求
1、数据过于分散
质检各业务系统信息资源分散、缺少统一规范和标准,不能交换和共享,难以对数据进行深层次挖掘和分析,无法支撑领导综合决策,难以满足业务协同的基本要求。
质检信息资源整合与共享服务平台的建设,需要将不同来源、不同类型的数据形成具有完备性、一致性和权威性的质检信息资源库和共享服务库,而分散、缺乏标准规范的数据资源难以为质检业务应用、信息共享、数据分析服务等提供数据服务支撑。
2、便民服务诉求
社会公众、质检业务改革与发展服务的基本诉求、大数据创新技术的驱动,要求质检技术和数据资源跑上"信息高速公路"。
"云物移大智"等创新技术的发展与应用,对质检业务改革与发展、面向社会公众的便民服务,提出了新的要求,大数据技术的应用为实现质检业务与数据跑在"信息高速公路"上提供了解决方案。
三
解决方案
针对质检行业在大数据层面面临的问题,现阶段方案如下:
数据接入
各质检业务系统所储存的结构化、非结构化数据全量在数据接入系统中通过jdbc addbatch经过清洗加工,加载至星环大数据平台TDH。同时,每日新产生的增量数据通过数据接入系统导入TDH。
应用支持
基于星环大数据平台TDH分析型数据库组件Inceptor高性能的存储与计算能力,对接上层业务应用系统完成多维数据统计分析、文件归档等需求。此外,利用Inceptor可执行分布式事务的特点在同一平台支撑业务应用系统事务操作的需求。
批量离线数据处理后导入Hyperbase,满足图片检索、全文检索等需求。
四
实施效果
星环大数据平台作为质检信息资源整合与共享服务平台的基础支撑。当前,已经完成多个原有质检业务系统数据采集、清洗、加工、整理和入库,将不同来源、不同类型的数据建设形成具有完备性、一致性和权威性的质检信息资源目录库、共享服务目录库以及质检信息资源库和共享服务库。
1、基于TDH大数据分析处理平台,形成了大数据规划、治理、管理、服务、应用的一体化生态系统,为质检业务应用、信息共享、数据分析等提供支撑。
目前,基于TDH大数据平台已经正式上线一年,根据业务提供的系统关键要素,划分出了高度自治的基础服务和核心服务,有效支撑了舆情管理中心、数据分析管理中心、双随机管理中心等质检业务到数据系统的变革。
2、基于TDH大数据分析处理平台,百万级别数据的聚合、过滤、统计分析等典型业务操作,数据处理性能达到秒级返回。
目前,基于TDH大数据平台所构建的信息资源管理与服务平台,有效支撑了总局生产企业管理中心、产品管理中心、检验检测机构管理中心、从业人员管理中心等司局各类型业务系统的统计分析、交互式查询、全文检索、图片检索、分布式事务等操作的基本性能需求。
五
总结
星环TDH大数据平台为总局"互联网+质检"行动计划的落实提供了技术和平台支撑,整合了质检数据资源,主导了质检行业由业务知识驱动的决策分析到数据驱动的变革,为满足社会公众明细查询,提供了高效的处理能力,促进质检业务与信息化的深度融合,为有效促进质检事业改革与发展、建设"质量强国"发挥信息化支撑保障作用。
点击或回复关键词,查看相关内容
公司
产品
产品 | 星环的划时代版本-Transwarp Data Hub 5.0
认证考试 | 数据中心联盟—星环联合认证体系首次认证考试报名中
技术
白话大数据 | 白话大数据合集
深入机器学习 | 深入机器学习系列合集
案例
银行 | 中国银行:大数据在银行领域的应用与实践
智能金融 | 星环科技发布证券业大数据战略规划纲要(白皮书)
运营商 | 运营商的新方向-运用Hadoop技术将大数据资产变现
视频监控 | Hadoop在实时视频监控的应用场景